Compte-rendu de l’École Thématique Sciences de l’Information Géographiques Reproductibles SIGR

Chargement des packages :

Oléron, 28 juin au 2 juillet 2021

Présentation de l’école

L’école thématique SIGR était organisée par l’UMS Riate, avec un comité scientifique composé de :

  • Claude Grasland (UMR Géographie-cités - Université de Paris)
  • Renaud Le Goix (UMR Géographie-cités - Université de Paris)
  • Marion Le Texier (UMR IDEES - Université de Rouen Normandie)

Et comme responsable scientifique : Timothée Giraud (UMS RIATE - CNRS).

L’organisation était assurée par l’équipe du RIATE :

  • Timothée Giraud
  • Nicolas Lambert
  • Ronan Ysebaert

La liste des intervenants est disponible ici.

Cette école visait à répondre aux problématiques de production, publication, diffusion ou valorisation de traitements de données géographiques dans une démarche de recherche reproductible.

En identifiant les principales avancées conceptuelles, méthodologiques et techniques du domaine via un focus sur les méthodes de traitement de l’information géographique, cette école a permis aux participants de s’initier à la mise en œuvre de protocoles de recherche ouverts et transparents avec le logiciel libre R.

Liens utiles

En bref : sélection de quelques points abordés

Bonnes pratiques en matière de reproductibilité

2 points clés de la formation, qui sont revenus tout au long :

  • Pour documenter son code, ou pour des besoins de formations : on peut créer des “documents computationnels” en R Markdown (programmation lettrée), alternant texte explicatif en markdown et code R. Ces documents peuvent être exportés en HTML, PDF… (exemple de doc R Markdown et sa sortie HTML)
  • Utilisation de git pour garder trace de tout l’historique des modifications d’un fichier texte (code, markdown…) et pour travailler à plusieurs sur un même fichier. On peut utiliser git non seulement pour du code, mais aussi par ex. pour travailler sur un article à plusieurs, et éviter les allers-retours de fichiers word par mail ! Il y a tout de même un coût d’entrée pour apprendre à se servir de cet outil.

Créer un environnement reproductible dans R

Pour résoudre les problèmes du style “mon code ne fonctionne plus depuis la mise à jour d’hier”, “mon code fonctionne sur mon ordi mais pas sur celui de mon collègue” et plus encore…

  • Pour faciliter le transfert de scripts R : utilisation de gestionnaires de paquets tels que Guix ou Nix
  • Pour travailler avec les mêmes versions des mêmes packages R : package minicran
  • Autre package pour créer des environnements reproductibles : renv

Cartographie reproductible

Reprendre facilement la carte que vous avez créée il y a 3 ans, ou bien réutiliser la mise en page que vous avez faite il y a 6 mois mais avec d’autres données, faire des cartes interactives pour les publier sur le web, et transmettre tout ça à vos collègues !

  • Créer des cartes interactives dans R en quelques lignes de code : package mapview ou tmap (tmap permet également la création de cartes statiques, on passe très facilement d’un mode à l’autre)
  • Créer des cartes statiques en R, avec le package mapsf fait par un cartographe (Timothée Giraud) pour les cartographes !
  • Pour créer des visualisations 2D et 3D avec du relief : package rayshader. Peut être utilisé par exemple pour visualiser l’évolution du niveau de la mer

Télédétetection/données rasters

3 packages à tester ?

  • Pour traiter des séries d’images (concept de data cubes) : package stars, pratique aussi pour les images au format netcdf. Utile aussi pour travailler avec des données volumineuses, peut se connecter directement au fournisseur de la donnée
  • Pour de la classification objet sur des images RGB ou des données continues ou de catégories : package supercells (en cours de développement par Jakub Nowosad)
  • Pour les données lidar : package lidR

Pour se documenter et résoudre les problèmes

Voir aussi la partie Biblio

En conclusion : il faut souvent jongler d’un package à l’autre, et donc faire des conversions d’une classe à l’autre.

Divers

  • Pour réfléchir à une chaîne de traitement : outil Excalibur pour créer des organigrammes
  • Pour accéder à des jeux de données spatiales tests, utile pour les formations par exemple : packages spData et spDataLarge
  • Possibilité de créer des sites web simples en R Markdown avec le package blogdown et le thème Hugo (ex. : Rzine)
  • Créditer les auteurs d’un article : utilisation de CRediT (Contributor Roles Taxonomy) pour préciser qui a fait quoi dans les auteurs d’un article (conceptualisation, méthodo, visualisation…)

Conférences et ateliers

Reproductibility crisis and Open Science

Arnaud Legrand, UMR LIG, CNRS (conférence)

Lien vers la présentation au format PDF

A travers plusieurs exemples de fraudes scientifiques ou d’erreurs involontaires, les notions de reproductibilité, réplicabilité, robustesse et généralisation sont introduites. 3 exemples de bonnes pratiques sont ensuite passés en revue avec pour chacune différents outils :

  1. la prise de notes et la documentation, à travers la programmation lettrée et les workflows
  2. le contrôle de l’environnement logiciel : rétrocompatibilité, écosystèmes (dépendances des bibliothèques entre elles), conteneurs et gestionnaires de paquets
  3. le contrôle de version et l’archivage, avec git et différents systèmes d’archives pour les articles, les données et les logiciels (évite les liens morts, cf. The Decay and Failures of URL References et Decay of References to Websites in Articles Published in General Medical Journals: Mainstream vs Small Journals)

Pour terminer, la problématique de changement des pratiques est abordée au travers de différentes initiatives.

Un exemple intéressant : un article exécutable par Carl Boetinger, qui utilise binder, on peut reproduire le code utilisé dans l’article avec RStudio mais dans un navigateur !

(note : dans cet article, un des liens pour télécharger les données n’est plus valide, ce qui ramène au point important de la pérennité des url)

Produire des documents reproductibles avec R Markdown

Ronan Ysebaert, UMS RIATE, CNRS (atelier)

Lien vers la présentation au format HTML

Lien vers le dépôt github de la présentation

Un document markdown est un fichier texte utilisant une syntaxe très simple pour la mise en forme, comme par exemple :

# titre 1
## titre 2
*italique*
**gras**

Ce qui donnera une fois interprété :

titre 1

titre 2

italique

gras

(à tester par exemple ici)

Un document R Markdown mélange des morceaux (chunks) de code R et de texte mise en forme. C’est un outil pour faire la programmation lettrée (literate programming). Pour expliquer ce qu’est la programmation lettrée, une citation de Donald Knuth :

Au lieu de considérer que notre tâche principale est de dire à un ordinateur ce qu’il doit faire, appliquons-nous plutôt à expliquer à des êtres humains ce que nous voulons que l’ordinateur fasse.

Le R Markdown est particulièrement utile pour expliquer un cheminement, créer des supports de formation… Et même ce compte-rendu !

Un document R Markdown peut être mouliné (tricoté selon la terminologie RStudio) pour créer des sorties au format HTML, PDF…

Un bloc de code R pour l’exemple, son résultat est affiché dessous :

print ("hello")
## [1] "hello"

Il existe également des packages R pour créer en R Markdown des types de documents spécifiques, comme des présentations, des livres, des sites web

Le fait de pouvoir créer des sites web légers très simplement peut être pratique pour des projets de recherche (pas besoin de déployer un CMS type wordpress ou de savoir faire du HTML).

Après la théorie, l’atelier propose une mise en pratique avec création d’un projet R Markdown dans RStudio, ajouts de titres et de contenus (texte, tables figures…), où on voit notamment que :

  • un document R Markdown commence par des métadonnées au format YAML avec le titre, l’auteur, le type de sortie… il y a donc très peu de choses à changer pour passer d’une sortie HTML à PDF par ex.
  • pour les blocs de code, on peut choisir différentes options : code évalué ou non, sortie affichée ou non, taille des figures si figure il y a…

Cet atelier se termine avec un focus sur les bonnes pratiques pour avoir un code exécutable et lisible :

  • utiliser des fonctions ou des boucles pour les opérations répétitives
  • indentation claire
  • commentaires
  • optimiser les noms d’objets
  • limiter les dépendances (préférer quelques lignes de code en plus mais un package en moins)
  • utiliser de préférence l’anglais

Note : on peut aussi inclure des diagrammes en utilisant Mermaid :

DiagrammeR::mermaid("
graph TD;
A[point A] --> B{à pied}
A --> C{à vélo}
A --> D{à cheval}
B --> E[point B]
C --> E[point B]
D --> E[point B]
", height = 300)

Présentez vos travaux en Markdown

Nicolas Lambert, UMS RIATE, CNRS (atelier)

Lien vers la présentation au format HTML

Lien vers le dépôt github de la présentation

Cet atelier présente le package R Xaringan créé par Yihui Xie permettant de générer des présentations HTML à partir d’un document R Markdown.

C’est donc un outil qui peut remplacer PowerPoint par exemple, particulièrement utile pour présenter du code, mais nécessitant une prise en main. On peut inclure du code R et son résultat (texte, tableaux, graphiques, cartes…).

La présentation de cet atelier et du précédent sont réalisées avec Xaringan.

Pour utiliser Xaringan, ça aide de connaître un peu de HTML, on peut utiliser ses propres fichiers de style CSS. On peut intégrer dans une présentation Xaringan tous les éléments d’une page web : vidéos, iframe, carte interactive avec leaflet, code javascript…

Un autre intérêt de Xaringan est de pouvoir utiliser différents thèmes sans changer le contenu de la présentation.

Introduction à git

Thimothée Giraud, UMS RIATE, CNRS (atelier)

Lien vers la présentation au format HTML

Lien vers le dépôt github de la présentation

Lecture préalable : Bryan J. 2017. Excuse me, do you have a moment to talk about version control? PeerJ Preprints 5:e3159v2 https://doi.org/10.7287/peerj.preprints.3159v2

git = système de gestion de version, permet de :

  • garder trace de l’historique de toutes les modifications faites sur des fichiers texte (code)
  • travailler à plusieurs sur un même fichier texte
  • partager son code !

Plusieurs plate-formes implémentent le logiciel git : GitHub, GitLab, + plate-formes institutionnelles

L’objectif de l’atelier est de créer un compte github, configurer git sur sa machine avec une clé SSH pour s’authentifier, créer un dépôt = projet avec une présentation rmarkdown, et mettre en ligne cette présentation. Voir la présentation pour le pas à pas détaillé (c’est ce que j’ai utilisé pour ce CR).

Ressources :

GIS and mapping - A lecture on the GIS and mapping ecosystem of R

Jakub Nowosad, Institute of Geoecology and Geoinformation - Adam Mickiewicz University, Pologne et Robin Lovelace, Institute for Transport Studies - University of Leeds, Royaume-Uni (conférence)

Lien vers la présentation au format HTML

Lien vers le dépôt github de la présentation

L’écosystème R propose beaucoup d’outils pour les données géographiques, pour explorer des données, les traiter, les analyser, les transformer, les convertir vers d’autres formats, les visualiser… Il est donc important de prendre le bon outil pour ce qu’on veut faire !

Il y a aussi pas mal d’outils pour partager des cartes, des workflow, du code

Liste de packages R utiles en :

Derrière R, il y a de nombreuses librariries de l’OSGeo telles que Proj, Gdal, Geos… Ces librairies sont utilisées par la plupart des logiciels SIG (QGIS, ArcGIS…). Donc si un outil R ne fonctionne pas comme on le souhaite, c’est possible que l’outil équivalent de QGIS ou ArcGIS ait les mêmes défauts si le problème vient d’une des librairies “de base”.

Dans R, on peut appeler les algorithmes de nombreux logiciels SIG : QGIS avec qgisprocess, Saga, Grass, ArcGIS…

Pour partager son code : il y a plusieurs intermédiaires entre coder “tout seul” et créer un package, comme par ex. avoir un dépôt git avec un readme.

Quelques packages pour manipuler des données raster ou vecteur :

  • données vecteur : package sf (successeur de sp, rgeos et rgdal)
  • données raster : package terra et son prédécesseur le package raster
  • séries de données raster ou vecteur, données spatio-temporelles : package stars

Quelques packages pour visualiser des données :

  • cartes statiques : mapsf : poussé niveau carto, permet de faire de la carto en respectant les règles de sémiologie graphique
  • cartes interactives : leaflet
  • cartes statiques et interactives : tmap. Pratique car permet de passer très facilement d’une carte statique à une carte interactive, mais moins axé cartographie que mapsf
  • pour représenter le relief : rayshader

Il en existe beaucoup d’autres ! Chaque package stocke les données sous des formats différents, il faut faire des conversions pour passer d’un package à l’autre.

La conférence se conclut par une présentation d’un ouvrage de Robin et Jakub : Geocomputation with R, un livre disponible en ligne et au format papier sur l’analyse et la visualisation de données géographiques avec R. Ce livre propose de nombreux exercices avec les packages sf, raster, tmap… pour effectuer de manière reproductible toutes les opérations courantes dans un logiciel SIG et au-delà (statistiques spatiales, carto interactive…).

Git avec des petits dessins

Arnaud Legrand, UMR LIG, CNRS (atelier informel)

Il s’agit d’un atelier spontané pour aller plus loin sur git (le off de l’école !)

Contenu inspiré de cette présentation du MOOC Recherche Reproductible

Tests de quelques commandes git supplémentaires :

  • git checkout pour revenir à une version précédente
  • git diff pour voir la différence entre 2 versions
  • gitk pour gérer l’historique
  • pour gérer des gros fichiers : git annex
  • git blame pour savoir qui a écrit quoi

Quelle interface graphique pour git ?

  • emacs magit (ça n’est pas à proprement parler une interface graphique ;-) )
  • git kraken : pratique en cas de conflit. Permet de rendre git plus accessible !
  • jupyterlab-git

Sur un autre sujet, comment créditer les auteurs : utilisation de CRediT (Contributor Roles Taxonomy) pour préciser qui a fait quoi dans les auteurs d’un article (conceptualisation, méthodo, visualisation…)

GIS and mapping workshop

Jakub Nowosad, Institute of Geoecology and Geoinformation - Adam Mickiewicz University, Pologne et Robin Lovelace, Institute for Transport Studies - University of Leeds, Royaume-Uni (atelier)

Un atelier très dense où on verra comment utiliser les jeux de données test fournis dans certains packages R, importer des données OpenStreetMap, voir les données manquantes, et faire des cartes statiques et interactives !

Lien vers la partie 1 (Robin) au format HTML

Lien vers la partie 2 (Jakub) au format HTML

Lien vers le dépôt github de l’atelier

Partie 1 avec Robin Lovelace : importer des données, voir les données manquantes…

Où trouver des jeux de données exemple ?

  • dans des packages dédiés : spData, spDataLarge, osmdata, nzelect
  • dans beaucoup de packages spatiaux : rayshader

Ex. pour spData :

Pour accéder à la documentation du package (et voir la liste des jeux de données disponibles) :

help(package="spData")

Ou bien :

library(help=spData)

Et pour avoir une description d’un jeu de données en particulier, ici afcon :

help(afcon)

Pour savoir de quel type est un jeu de données (dataframe, raster…) :

class(afcon)
## [1] "data.frame"
class(elev)
## [1] "RasterLayer"
## attr(,"package")
## [1] "raster"

Pour accéder à un jeu de données :

afcon <- spData::afcon
head(afcon)
##             x        y totcon       name   id
## TS   9.556491 34.11685   1363    TUNISIA 2040
## AG   2.631669 28.16258   1421    ALGERIA 2039
## MO  -6.316814 31.88583   1861    MOROCCO 2038
## LY  18.022672 27.04399   2355      LIBYA 2041
## EG  29.774473 26.56703   5246      EGYPT 2043
## MR -10.332211 20.25840    811 MAURITANIA 2005

Récupérer des données OpenStreetMap, avec la fonction opq (overpass query) du package osmdata :

northland_lonlat = sf::st_transform(nz[1,], 4326) # nz est dispo via le package spData, ici on ne prend qu'une seule région
schools_nl_osm = opq(bbox = sf::st_bbox(northland_lonlat)) %>% 
  add_osm_feature(key = "amenity", value = "school") %>% 
  osmdata_sf()

Pour ne garder que les polygones :

schools_nl_polygons = schools_nl_osm$osm_polygons

Voir les données manquantes : on supprime d’abord la colonne de géométrie pour que la commande skim du package skimr ne soit pas trop longue à se lancer.

schools_pol_nogeom <- st_drop_geometry(schools_nl_polygons)

Avec skim, on obtient un tableau avec une ligne par colonne de la table attributaire, avec pour chacune le nombre de valeurs manquantes, le nombre de valeurs uniques etc.

skim(schools_pol_nogeom)
Data summary
Name schools_pol_nogeom
Number of rows 142
Number of columns 28
_______________________
Column type frequency:
character 28
________________________
Group variables None

Variable type: character

skim_variable n_missing complete_rate min max empty n_unique whitespace
osm_id 0 1.00 8 9 0 142 0
name 18 0.87 12 38 0 124 0
MOE.authority 37 0.74 5 10 0 3 0
MOE.decile 127 0.11 1 1 0 6 0
MOE.gender 37 0.74 4 5 0 3 0
MOE.id 25 0.82 1 4 0 116 0
MOE.years 39 0.73 3 5 0 7 0
addr.city 64 0.55 5 14 0 36 0
addr.hamlet 139 0.02 6 12 0 3 0
addr.housenumber 86 0.39 1 5 0 45 0
addr.postcode 74 0.48 4 4 0 38 0
addr.street 52 0.63 8 22 0 76 0
addr.suburb 131 0.08 7 11 0 11 0
amenity 0 1.00 6 6 0 1 0
contact.facebook 141 0.01 72 72 0 1 0
denomination 135 0.05 8 21 0 3 0
email 136 0.04 15 29 0 6 0
grades 139 0.02 3 4 0 3 0
landuse 141 0.01 11 11 0 1 0
name.ja 139 0.02 6 10 0 3 0
name.mi 140 0.01 18 25 0 2 0
old_name 141 0.01 32 32 0 1 0
phone 56 0.61 11 15 0 86 0
ref.linz.address_id 132 0.07 6 7 0 10 0
religion 133 0.06 9 9 0 1 0
website 48 0.66 21 74 0 93 0
wikidata 29 0.80 8 10 0 113 0
wikipedia 140 0.01 17 19 0 2 0

Une autre méthode pour extraire des données OpenStreetMap, avec la fonction oe_get du package osmextract :

place_name = "Canberra"
et = c("amenity")
q_points = "SELECT * FROM points WHERE amenity IN ('school')"
oe_school_points = oe_get(place_name, provider = "openstreetmap_fr", query = q_points, extra_tags = et)

Note : la recherche de nom de lieux n’est pas hyper au point, on peut tester avec oe_match

Pour visualiser ces données avec une carte interactive avec le package mapview :

mapview::mapview(oe_school_points)

Avec le package osmextract, on peut tester si des noms de lieux renvoient des résultats avec la fonction oe_match. En fait, ce package utilise des zones prédéfinies par chacun de ses 3 providers :

oe_providers()
##   available_providers          database_name number_of_zones number_of_fields
## 1           geofabrik        geofabrik_zones             430               14
## 2              bbbike           bbbike_zones             235               10
## 3    openstreetmap_fr openstreetmap_fr_zones             903                6

Pour voir ces zones pour un de ces providers, par ex. pour openstreetmap_fr :

plot(st_geometry(openstreetmap_fr_zones))

En France, on est au niveau des départements.

On n’a pas forcément de zones aussi fines qu’on le voudrait. Avec osmdata on peut spécifier exactement les coordonnées de l’emprise souhaitées, ou bien spécifier l’emprise d’une couche existante.

On peut aussi simplifier des données avec la fonction ms_simplify du package rmapshaper, créer des zones tampon avec la fonction st_buffer du package sf… cf. https://geocompr.robinlovelace.net/geometric-operations.html

Partie 2 avec Jakub Nowosad : visualiser les données avec le package tmap

le package tmap permet de créer des cartes statiques ou interactives. Le principe est de partir d’un jeu de données, puis d’ajouter des éléments (autres couches de données, légende, échelle…)

On récupère d’abord un jeu de données test du package spDataLarge, avec le package terra :

nz_elev = rast(system.file("raster/nz_elev.tif", package = "spDataLarge"))

Puis pour en faire un carte :

tm_shape(nz_elev) +
  tm_graticules(col = "white") +
  tm_raster(title = "Elevation (m asl)", 
            style = "cont",
            palette = brewer.pal(6,"YlOrBr")) +
  tm_shape(nz) +
  tm_borders(col = "darkgray", 
             lwd = 1) +
  tm_shape(nz_height) +
  tm_symbols(size = 0.2, 
             shape = 2,
             col = "black") +
  tm_add_legend(type = "symbol",
                shape = 2,
                size = 0.4,
                col = "black",
                title = "Highest peaks") +
  tm_scale_bar(breaks = c(0, 200),
               text.size = 0.8,
               lwd = 0.1) +
  tm_credits(text = "J. Nowosad, 2021") +
  tm_layout(bg.color = "lightblue",
            inner.margins = c(0, 0, 0, 0))

Voir la présentation, ou l’aide, pour détailler chacun des éléments de cette carte ! Le point de départ est une couche de données avec tm_shape(nz_elev), il faut ensuite ajouter des options avec des +. On peut ajouter plusieurs couches, elles seront dessinées dans l’ordre indiqué (donc il faut mettre en dernier ce qu’on veut au-dessus).

Pour de l’aide sur un élément, par ex. comment ajouter des graticules :

help(tm_graticules)

Pour explorer les palettes de couleur :

tmaptools::palette_explorer()

Pour passer en mode interactif, il faut utiliser la commande tmap_mode("view") :

tmap_mode("view") # plot pour le mode statique, view pour le mode interactif

tm_shape(nz_elev) +
  tm_graticules(col = "white") +
  tm_raster(title = "Elevation (m asl)", 
            style = "cont",
            palette = brewer.pal(6,"YlOrBr")) +
  tm_shape(nz) +
  tm_borders(col = "darkgray", 
             lwd = 1) +
  tm_shape(nz_height) +
  tm_symbols(size = 0.2, 
             shape = 2,
             col = "black") +
  tm_add_legend(type = "symbol",
                shape = 2,
                size = 0.4,
                col = "black",
                title = "Highest peaks") +
  tm_scale_bar(breaks = c(0, 200),
               text.size = 0.8,
               lwd = 0.1) +
  tm_credits(text = "J. Nowosad, 2021") +
  tm_layout(main.title = "New Zealand",
            bg.color = "lightblue",
            inner.margins = c(0, 0, 0, 0))

Avec quelques limitations cependant : on ne peut pas utiliser de formes autres que des cercles ou des icônes prédéfinies par exemple (ici, les triangles sont remplacés par des cercles).

On peut exporter la carte au format image ou vecteur avec la fonction tmap_save. Pour voir la liste des formats possibles :

help(tmap_save)

Sciences reproductibles et analyse spatiale : quelques lectures et retours d’expérience

Marianne Guérois, UMR Géographie-cités - Université de Paris (conférence)

Lien vers la présentation au format PDF

Lecture préalable : Kedron P., Frazier A., Trgovac A., Nelson T., Fotheringham S., Reproducibility and Replicability in Geographical Analysis, 2019, Geographical Analysis, Volume 53, Issue 1. https://doi.org/10.1111/gean.12221

Exemples d’erreurs et de controverses en analyse spatiale :

  • Comparaison de 4 implémentations “ouvertes” et 2 implémentations “fermées” d’un même algorithme (Geographical Weighted Regression) : tous donnent le même résultat sauf ArcGIS. Pas moyen de savoir pourquoi ! (Brundson et al., 2016)
  • Modifiable areal unit problem (MAUP) : selon la manière dont des données ponctuelles sont agrégées, les résultats des analyses peuvent être différents.

Les pionniers d’une approche reproductible : Openshaw et al., étude sur les cancers infantiles dans les années 80 : en lien ou non avec la présence de la centrale nucléaire de Sellafield ? Ce lien venait d’un biais de pré-sélection, ce qu’a montré Openshaw en balayant la zone avec des millions de cercles de différentes tailles.

Quelles pratiques de sciences reproductibles en analyse spatiale ? Etude de Konkol et al., 2019 : la méthodo est souvent documentée mais les données et le code sont rarement associés aux publis. Le besoin est reconnu, les auteurs savent a priori comment améliorer la reproductibilité de leurs travaux, mais ça n’est pas considéré comme une priorité car peu de valeur ajoutée (pas pris en compte dans les évaluations).

Reproductibilité : l’analyse spatiale est-elle un cas particulier ? problème de l’échelle spatiale qui n’est pas toujours fixe, + principe d’hétérogénéité patiale : résultats obtenus dans une zone donnée ne sont pas nécessairement transposables à une autre zone. On ne recherche donc pas la reproductibilité des résultats à tout prix (≠ sciences dures).

Synthèse de Kedron et al. (2021) avec 4 sources d’incertitudes lors du processus de recherche, qui compliquent la reproductibilité :

  • incertitudes conceptuelles
  • incertitudes de mesures
  • incertitudes liées aux analyes
  • incertitudes lors de la communication

Ex. d’un problème d’incertitude conceptuelle (Anne Ruas, 2020) sur la notion d’artificialisation : le concept a “glissé” au cours du temps pour se confondre avec l’imperméabilisation, ce glissement étant lié à un changement de contexte. Il est donc difficile de comparer des taux d’artificialisation au cours du temps.

Ex. d’un problème d’incertitude liée aux données avec un projet en cours au RIATE sur les AirDNA. Il s’agit d’une base de données vendue par une entreprise qui donne des infos sur les locations AirBnB. Ces données sont chères, certaines infos y sont difficilement accessibles (durées de séjour), problème d’imprécision spatiale.

Ex. du projet TRADEVE sur les trajectoires démographiques des aires urbaines européennes entre 1961 et 2011 : problème de l’harmonisation de bases de données urbaines :

  • multiplicité des définitions de la ville
  • plusieurs bases de données avec chacune ses limites
  • plusieurs modèles théoriques pour comparer les villes dans le temps (limites fixes ou changeantes…)
  • il y a aussi la question de la pertinence d’utiliser un seuil fixe de desnsité comme un des critères pour définir les agglomérations On ne peut pas toujours utiliser un modèle unique avec des paramètres identiques -> pertincence de la reproductibilité ? A quel niveau la placer ?

Tenir un journal de laboratoire avec emacs et orgmode

Arnaud Legrand, UMR LIG, CNRS (atelier informel)

journal de laboratoire = fichier texte organisé de manière chronologique, on l’on note chaque jour ce que l’on fait, avec des tags.

Un outil pour tenir ce journal : l’éditeur de texte emacs avec orgmode. Orgmode est un mode spécial pour emacs, adapté à la prise de note, la création de to-do listes, la programmation lettrée… Il suffit d’ouvrir un fichier .org dans emacs pour passer en orgmode (après configuration).

Outil permettant d’être très efficace mais nécessitant un temps d’apprentissage !

Atelier analyse spatiale (Régression Géographiquement Pondérée ou GWR)

Thierry Feuillet, UMR LADYSS - Université Paris 8 Vincennes - Saint-Denis (atelier)

Lien vers la présentation au format HTML

Lien vers le dépôt github de l’atelier

Lecture préalable : Helbich, M., Brunauer, W., Hagenauer, J., & Leitner, M., Data-driven regionalization of housing markets, 2013. Annals of the Association of American Geographers, 103(4), 871-889. https://www.geog.uni-heidelberg.de/md/chemgeo/geog/lehrstuehle/gis/helbich_etal_2012.pdf

Atelier sur les prix de l’immobilier sur l’île d’Oléron : données DVF (Demandes de Valeurs Foncières) disponibles sur data.gouv en licence ouverte.

Concepts manipulés : Hétérogénéité spatiale, qui a a pour traduction d’un point de vue statistique la non-stationnarité spatiale, c’est-à-dire l’instabilité, dans l’espace, des moyennes, des variances et des covariances. La méthode GWR est une méthode de régression locale pour explorer la non-stationnarité spatiale à travers des cartes de relation.

Intérêts de la GWR :

  • outil d’exploration visuelle, permet d’identifier des variables locales pertinentes initialement omises
  • considère l’espace en continu, méthode non tributaire de découpages administratifs

Faiblesses de la GWR :

  • pas mal de paramétrages “manuels” qui peuvent affecter les résultats et rendre les comparaisons difficiles d’une étude à l’autre (tester, et documenter !)
  • il faut un nombre minimum d’observations
  • l’interprétation est parfois délicate, nécessite de bien connaître le sujet

La présentation inclue le pas à pas détaillé avec les commandes R. On trouvera aussi le détail de la méthode dans le chapitre 9 du manuel de géographie quantitative de T. Feuillet, E. Cossart et H. Commenges (2019).

Petit résumé de l’atelier :

On regarde la distribution de la variable dépendante, = prix de vente des maisons. Après suppression d’une vaeur aberrante, cette distribution apparaît dissymétrique.

On utilise comme variables indépendantes :

  • la distance au littoral
  • la surface du bâti
  • la surface du terrain

Pour chacune des ces 3 variables, on regarde le nuage de points log/log avec la variable dépendante et on obtient :

## `geom_smooth()` using method = 'loess' and formula 'y ~ x'
## `geom_smooth()` using method = 'loess' and formula 'y ~ x'
## `geom_smooth()` using method = 'loess' and formula 'y ~ x'

  • prix du foncier et distance au littoral : relation plutôt négative, pas net
  • prix du foncier et surface bâti : relation positive
  • prix du foncier et surface terrain : relation positive

On construit ensuite le modèle log-log global (MCO), en utlisant la fonction lm puisque la valeur foncière est une variable quantitative continue.

A ce stade, on peut vérifier la multicolinéarité : est-ce que les variables explicatives sont interdépendantes ? Si oui, ça peut poser des problèmes pour interpréter les résultats. Pour mesurer la colinéarité, on regarde les Facteurs d’Inflation de la Variance, FIV ou VIF en anglais (fonction vif du package car). Ici, pas d’interdépendance a priori, avec des VIF autour de 1.

Pour interpréter les résultats du modèle :

Characteristic Beta 95% CI1 p-value
(Intercept) 9.6 9.1, 10 <0.001
log_dist_litt -0.08 -0.12, -0.04 <0.001
log_surface_reelle_bati 0.46 0.37, 0.55 <0.001
log_surface_terrain 0.22 0.18, 0.26 <0.001

1 CI = Confidence Interval

  • beta : coef de régression caractérisant le relation entre la variable à expliquer et les variables explicatives. Ici, beta = 0.46 pour la surface bâtie, donc si cette surface augmente de 1%, le prix augmente de 0.46%
  • intervalle de confiance : si 0 n’est pas compris dans l’IC, alors les relations sont significatives

On se sert du MCO pour faire une cartographie des résidus, qui semble difficile à interpréter :

## Variable(s) "resMco" contains positive and negative values, so midpoint is set to 0. Set midpoint = NA to show the full spectrum of the color palette.

Beaucoup de points “foncés” = éloignés de 0 semble indiquer qu’il manque des variables dans le modèle.

On va maintenant faire une GWR : on va faire autant de régressions locales que d’individus (maisons), en ne prenant en compte que le voisinage.

Il faut d’abord définir le voisinage, on peut utiliser plusieurs méthodes :

  • pondération exponentielle : prend en compte ttes les maisons, avec pondération en fonction distance (fonction nNeigh.exp)
  • pondération bicarrée : au-delà d’une certaine distance, les maisons ne seront pas prises en compte (fonction nNeigh.bisq)

On va estimer la GWR avec ces 2 pondérations, avec la fonction gwr.basic. La GWR avec pondération exponentielle s’avère ici plus performante, avec un r2 de 0.58 contre un r2 de 0.50 pour la pondération bicarrée. On voit aussi qu’il semble exister une non-stationnarité spatiale, et même des inversions de signes pour la distance au littoral.

On cartographie ensuite les betas de chaque variable pour décrire cette non-stationnarité spatiale, en faisant 3 cartes, une pour chaque variable. Les points y apparaissent uniquement si leur t-value es supérieure à 1.96 c-à-d significatif.

Il faut interpréter ces cartes, ce qui n’est pas évident, surtout ici sans bien connaître le sujet et la zone, mais très rapidement :

  • pour la distance au littoral : pas bien clair, peu significatif à certains endroits
  • pour la surface bâtie, c’est positif partout, donc c’est significatif partout
  • pour la surface terrain, il existe des zones homogènes, mais aussi des zones non significatives, au nord

L’atelier comportait aussi une partie sur la GWR multiscalaire, qu’on n’a pas eu le temps de voir.

On termine avec la régionalisation des sous-marchés immobiliers. L’objectif est de délimiter des sous-marchés immobiliers, sur la base des coefficients de la GWR, ici avec l’algorithme SKATER.

Il faut procéder en 4 étapes :

  1. Constuction d’un graphe de voisinage (contiguité ou knn)
  2. Pondération des liens du graphe à partir de la matrice de dissimilarité
  3. Construction de l’arbre portant minimal, en retenant le lien avec le voisin le plus ressemblant pour chaque noeud
  4. Elagage de l’arbre maximisant la variance inter-classes des sous-graphes

On aboutit au final à 6 clusters. Si on prend l’exemple du cluster central de St Pierre d’Oléron, l’effet de la distance littoral est > moyenne, l’effet de la surface réelle < moyenne.

Analyse d’image raster (et télédétection)

Malika Madelin, UMR PRODIG - Université de Paris (conférence)

Lien vers la présentation au format HTML

Lien vers le dépôt github de la présentation

Il existe plusieurs plate-formes où on peut accéder aux images satellite : Copernicus (ESA), Earth Explorer, Sentinel Hub, Google Earth Explorer… Selon la plate-forme, pas toujours besoin de télécharger les données, on peut parfois lancer des traitements directement sur la plate-forme.

A propos du poids des images : le + souvent, ascii > geotiff > geopackage, mais ça n’est pas immuable.

Package stars pour les datacubes (données vecteur et raster) : utile pour données NetCDF

Avantage des données raster par rapport à la reproductibilité :

  • mode de production souvent homogène
  • données souvent accessibles
  • souvent dans des formats ouverts
  • bibliothèques écrites en C communes à plusieurs logiciels (GDAL…)

3 packages phares pour les raster sous R :

  • raster
  • stars : gère bien les rasters lourds car tuilage en amont
  • terra : successeur de raster

Comparatif du blog seascapemodels :

So terra was about 8.5 times faster than raster and stars was about 3 times faster than terra (so about 26 times faster than raster).

On peut lire un même geotiff avec chacun de ces 3 packages, le résultat sera un objet de type différent selon le package.

Pour gérer les valeurs manquantes :

Donne la valeur NA (non renseigné) aux pixels ayant pour valeur -9999 :

r[r[]== -9999] <- NA

A l’inverse, donne aux pixels NA la valeur 0 :

r[is.na(r)] <- 0

3 types d’opérations :

  • locales : on regarde les pixels en tant que tels, ex. reclassification, calculatrice raster…
  • focales : on regarde le pixel par rapport à ses voisins, ex. filtres passe-bas/passe-haut, calcul de pente…
  • zonales ou globales : on définit des zones, ex. statistiques zonales…

Pour la visualisations, en + des 3 packages déjà cités :

  • sp avec spplot()
  • rastervis avec levelplot() : histogrammes, gère bien vignettes, pratique pour données temporelles
  • leaflet avec addRasterImage() (attention aux projections et aux volumes des rasters)
  • tmap avec tm_raster()
  • rayshader
  • mapview…

Faire des cartes avec le package R mapsf

Timothée Giraud, UMS RIATE, CNRS (présentation improvisée en 15 min)

Historique des packages développés par Timothée : rcarto (2013) > cartography (2015) > mapsf (2020)

Cartography s’appuyait sur des packages qui ont été remplacés par sf : mapsf est une réécriture de cartography notamment pour utiliser sf.

La fonction principale est mf_map, avec 3 arguments principaux :

  • une couche de données (objet sf)
  • la variable à représenter
  • le type de carte (choroplèthe, symboles proportionnels…)

Le package est bien documenté, avec notamment la liste des fonctions.

Juste un exemple rapide :

# importe le jeu de données exemple sur la Martinique
mtq <- mf_get_mtq()
# utilise le thème algolight
mf_theme("agolalight")
# crée la carte de base
mf_map(x = mtq)
# ajoute des symboles proportionnels colorés en fonction du revenu médian
mf_map(x = mtq, var = c("POP","MED"), type = "prop_choro")
mf_title("Population and Wealth")

On peut aussi ajouter des insets (petite carte pour situer la carte principale). Plusieurs thèmes sont définis et peuvent être modifiés.

La carte peut être exportée aux formats PNG et SVG.

Image processing and all things raster

Jakub Nowosad, Institute of Geoecology and Geoinformation - Adam Mickiewicz University, Pologne (atelier)

Lien vers la présentation au format HTML

Lien vers le dépôt github de l’atelier

La présentation comprend le pas à pas détaillé.

Pour charger un geotiff issu du package spDataLarge en utilisant raster, terra ou stars :

srtm_path = system.file("raster/srtm.tif", package = "spDataLarge")
srtm = rast(srtm_path) # terra
srtm_r = raster(srtm_path) # raster
srtm_s = read_stars(srtm_path) # stars

Pour visualiser rapidement ce raster avec la fonction plot() :

plot(srtm)

Map Algebra

Opérations locales : calcul raster, en récupérant le min ou max du raster avec la fonction global() du package terra :

srtm2 = srtm + 1000
srtm3 = srtm - global(srtm, min)[[1]]
srtm4 = srtm - global(srtm, median)[[1]]

On peut faire des vignettes en passant un vecteur avec plusieurs rasters à la fonction plot() :

plot(c(srtm, srtm2, srtm3, srtm4))

Opérations locales : reclassification. On crée d’abord une matrice, avec une ligne par classe, et 3 colonne pour chaque classe : valeur min, valeur max et id.

rcl = matrix(c(0, 1500, 1, 
               1500, 2000, 2, 
               2000, 9999, 3),
             ncol = 3, 
             byrow = TRUE)

On utilise ensuite la fonction reclassify() du package raster :

srtm_recl = classify(srtm, rcl = rcl)
plot(srtm_recl)

Quand on travaille avec des rasters à plusieurs bandes, la fonction lapp du package terra permet d’appliquer une même fonction à chaque bande (ou aux bandes sélectionnées).

Opérations focales (filtres) : on définit la fenêtre avec une matrice, et la fonction, ici la moyenne :

srtm_focal_mean = focal(srtm, 
                   w = matrix(1, nrow = 9, ncol = 9), 
                   fun = mean)
plot(c(srtm, srtm_focal_mean))

Opérations zonales :

On commence par récupérer un raster catégorisé :

nlcd = rast(system.file("raster/nlcd2011.tif", package = "spDataLarge"))
plot(nlcd)

Il n’a pas le même CRS que srtm :

crs(nlcd, describe = TRUE)
##                               name EPSG area         extent
## 1 UTM Zone 12, Northern Hemisphere <NA> <NA> NA, NA, NA, NA
crs(srtm, describe = TRUE)
##     name EPSG area         extent
## 1 WGS 84 4326 <NA> NA, NA, NA, NA

Pour passer srtm en UTM avec la fonction project du package terra :

srtm_utm = project(srtm, nlcd, method = "bilinear")

On peut maintenant calculer les statistiques zonales, ici seulement la moyenne :

srtm_zonal = zonal(srtm_utm, nlcd, na.rm = TRUE, fun = "mean")
srtm_zonal
##    nlcd2011     srtm
## 1        11 2227.060
## 2        21 1713.980
## 3        22 1642.077
## 4        23 1569.632
## 5        31 1854.069
## 6        41 2361.121
## 7        42 1867.068
## 8        43 2500.253
## 9        52 1650.966
## 10       71 1644.359
## 11       81 1284.106
## 12       82 1417.671
## 13       90 1254.168
## 14       95 1909.590

Opérations globales :

global(srtm, fun = "mean")
##          mean
## srtm 1842.548
freq(nlcd)
##       layer value  count
##  [1,]     1    11   1209
##  [2,]     1    21  14149
##  [3,]     1    22   3173
##  [4,]     1    23    195
##  [5,]     1    31 106070
##  [6,]     1    41 196044
##  [7,]     1    42 564668
##  [8,]     1    43   6825
##  [9,]     1    52 545771
## [10,]     1    71   4878
## [11,]     1    81   8460
## [12,]     1    82    268
## [13,]     1    90   6422
## [14,]     1    95     75

Interactions raster-vecteur

Chargement d’un polygone avec les contours du parc national de Zion :

zion = read_sf(system.file("vector/zion.gpkg", package = "spDataLarge"))

Crop (découpe le raster par le rectangle englobant du polygone) et mask (ne garde que la valeur des pixels dans le polygone) :

srtm_utm_c = crop(srtm_utm, vect(zion))
srtm_utm_m = mask(srtm_utm_c, vect(zion)) # on combine généralement crop et mask

Comparaison des 3 avec tmap :

## tmap mode set to plotting
tc1 = tm_shape(srtm_utm) +
  tm_grid() + 
  tm_raster(style = "cont") +
  tm_shape(zion) +
  tm_borders(col = "black") +
  tm_layout(inner.margins = 0)
tc2 = tm_shape(srtm_utm_c) +
  tm_grid() + 
  tm_raster(style = "cont") +
  tm_shape(zion) +
  tm_borders(col = "black") +
  tm_layout(inner.margins = 0)
tc3 = tm_shape(srtm_utm_m) +
  tm_grid() + 
  tm_raster(style = "cont") +
  tm_shape(zion) +
  tm_borders(col = "black") +
  tm_layout(inner.margins = 0)
tmap_arrange(tc1, tc2, tc3)

Récupérer les valeurs d’un raster dans une couche de points, avec la fonction extract du package terra :

zion_points = read_sf(system.file("vector/zion_points.gpkg", package = "spDataLarge"))
zion_extract = terra::extract(srtm, vect(zion_points))
head(zion_extract)
##   ID srtm
## 1  1 1802
## 2  2 2433
## 3  3 1886
## 4  4 1370
## 5  5 1452
## 6  6 1635

On peut ensuite lier ces valeurs à la couche de points avec la fonction rbase cbind() :

zion_points2 = cbind(zion_points, zion_extract)
plot(zion_points2['srtm'])

La même chose est possible pour récupérer la valeur moyenne, médiane… d’un raster pour un polygone. Le paramètre exact = TRUE de la fonction extract permet de prendre en compte les bouts de pixels tronqués par le polygone, en tenant compte de la surface de ces bouts de pixels.

Il faut ensuite utiliser les fonctions group_by() et summarise() pour avoir les stats pour le polygone.

zion = read_sf(system.file("vector/zion.gpkg", package = "spDataLarge"))
zion = st_transform(zion, crs(srtm))
zion_srtm_values = terra::extract(srtm, vect(zion))
zion_srtm_values %>% 
  group_by(ID) %>% 
  dplyr::summarise(across(srtm, list(min = min, mean = mean, max = max)))
## # A tibble: 1 x 4
##      ID srtm_min srtm_mean srtm_max
##   <dbl>    <dbl>     <dbl>    <dbl>
## 1     1     1122     1818.     2661

Avec exact = TRUE, les valeurs sont légèrement différentes :

zion_srtm_values2 = terra::extract(srtm, vect(zion), exact = TRUE)
zion_srtm_values2 %>% 
  group_by(ID) %>% 
  summarize(across(srtm, list(min = min, mean = mean, max = max)))
## # A tibble: 1 x 4
##      ID srtm_min srtm_mean srtm_max
##   <dbl>    <dbl>     <dbl>    <dbl>
## 1     1     1119     1817.     2661

Rasterisation : avec la fonction rasterize (package terra ou raster). On peut choisir de quelle manière la valeur des pixels sera déterminée (valeur fixe, attribut…). Par exemple pour compter les points :

zion_points_utm = st_transform(zion_points, crs = crs(nlcd))
raster_template = rast(ext(zion_points_utm), 
                       resolution = 4000,
                       crs = crs(zion_points_utm))
ch_raster2 = rasterize(vect(zion_points_utm), raster_template, fun = length)
tm_shape(ch_raster2) +
  tm_raster(title = "Count") +
  tm_shape(zion_points_utm) + 
  tm_dots()

Vectorisation : avec les fonctions as.polygons() par ex., ou contour() pour créer des courbes de niveaux (lignes ou polygones) à partir d’un MNT.

Conversions (formats)

La fonction writeRaster prend plusieurs paramètres en entrée dont :

  • le raster de départ
  • le format en sortie (tif…)
  • le type de données (nombre de bits utilisés)
  • le type de compression (aucune, COMPRESS-DEFLATE…)

Analyse raster

Autocorrélation spatiale avec la fonction autocor du package terra : utilise l’indice de Moran par défaut mais on peut aussi utiliser Geary.

Segmentation d’images avec le package supercells en cours de développement par Jakub. Ce package permet de faire de la classif objet pour des images RGB, des rasters catégorisés ou continus.

Chargement d’une ortho exemple :

library(supercells)
ortho = rast(system.file("raster/ortho.tif", package = "supercells"))
plot(ortho)

Segmentation :

ortho_slic1 = supercells(ortho, k = 200, compactness = 10)
## Step: 21
## Initialization: Completed
## Iteration: 1/10
Iteration: 2/10
Iteration: 3/10
Iteration: 4/10
Iteration: 5/10
Iteration: 6/10
Iteration: 7/10
Iteration: 8/10
Iteration: 9/10
Iteration: 10/10
## Cleaning connectivity: Completed
plot(ortho)
plot(st_geometry(ortho_slic1), add = TRUE)

Questions, discussions et ressources générales sur l’utilisation de R

Introduction à R et RStudio (Hughes Pécout)

Projet Rzine : partage de ressources autour de R dans les SHS, projet du CIST

Le spectre de la reproductibilité avec R, présentation de T. Giraud

Reproductibilité avec R, comment utiliser les mêmes versions de packages ?

  • sessionInfo(): commande R permettant de déclarer le système utilisé à la fin du programme ou du .rmd
  • package miniCRAN : permet de faire un snapshot du CRAN et de lancer des programmes et pkgs anciens (et non de se connecter sur le CRAN courant, actualisé).
  • package renv : package pour gérer les dépendances (et leurs versions) des packages dans les projets RStudio (pas les versions de R).
  • Docker : installer un Docker qui va conténairiser (outils, traitements, construction d’images) et éviter de travailler en local. Permet de contourner les problèmes de dépendance des logiciels, de faire des mises à jour en permanence (mais pas si simple à mettre en oeuvre !)

Bonne pratique : éviter au maximum les dépendances à des packages.

Question de la pérenité des outils et de la multiplicité des outils (lequel choisir ?). La question des outils perturbe la reprodutibilité globale.

Question de la reproductibilité opérationnelle : ressources humaines et (non) permanence des gens sur des postes pour conserver la mémoire des méthodes et outils.

Biblio

Publications

Autres ressources (sites web)